محمدعلی رجایی در 25 خرداد 1312 خورشیدی در قزوین به دنیا آمد. پدر او عبدالصمد نام داشت و از کسبه و بازرگانان قدیم قزوین و تهران بودند و چهار سال پس از تولدش در 1937 (1316) درگذشت. محمدعلی از این به بعد با مادر و برادرش زندگی می‌کرد.

او تحصیلات ابتدایی را در قزوین تمام کرد و در 13 سالگی به تهران رفت و از روی خودساختگی که در شخصیت او بود به کار و فروشندگی که در آن دوران بسیار مرسوم بود در نزدیکی محل کار برادر در جنوب شهر مشغول شد و بر خلاف دیدگاه عوام هیچگاه در فقر و تنگدستی زندگی نکرد. در 17 سالگی به آموزشگاه گروهبانی نیروی هوایی رفت و در حین تحصیل با احزاب و گروه‌های سیاسی مخالف شاه (همچون فداییان اسلام) آشنا شد و در جلسات سید محمود طالقانی شرکت می‌کرد. او در این دوران از طرفداران محمود طالقانی بود و در ضمن حضور در ارتش، مخفیانه با فداییان اسلام فعالیت می‌کرد.

رجایی پس از ماجراهایی از ارتش بیرون آمد و یک سال در شهرستان بیجار به معلمی پرداخت و سپس در سال 1335 برای ادامه? تحصیل به دانشسرای عالی رفت و در 1338 از آنجا فارغ‌التحصیل شد. وی با انجمن‌های اسلامی دانشجویان هم همکاری داشت. در 1338(1959) پس از اتمام تحصیل در دوره کارشناسی ارشد آمار به قزوین بازگشت. رجائی با عضویت در نهضت آزادی ایران به فعالیتهای سیاسی خود ادامه داد و در جریان فعالیت‌های سیاسی و پخش اعلامیه دستگیر شد و 50 روز را در زندان گذراند. او پس ‍ آزادى از زندان با شهید باهنر به سازماندهى مجدد هیات هایموتلفه اسلامی پرداخت و براى پرورش افرادى که بتوانند نبردى مسلحانه را اداره نمایند به اعزام داوطلبانى به جبهه فلسطین دست زد. در همین رابطه و براى تکمیل برنامه مزبور (در سال 1350) خود شخصا به خارج از کشور سفر کرد. ابتدا به فرانسه و ترکیه رفت و از آنجا عازم سوریه شد. او همگام با فعالیتهاى سیاسى به خدمات فرهنگى از جمله تدریس در مدارس کمال و رفاه ، همکارى با بنیاد رفاه و تعاون اسلامى با همکارى شهید مظلوم آیت الله دکتر بهشتى و شهید دکتر باهنر و آیت الله هاشمى رفسنجانى نیز مشغول بود. . در سال 1351 با تشکیل سازمان مجاهدین خلقبااین سازمان همکاری نمود. در سال 1353(1974) رژیم شاه وی را دستگیر کرد و بدین سبب، چهار سال را در زندان گذراند و مورد شدیترین شکنجه های ساواک قرار گرفت. قراردادن او در قفس طوطی و کشیدن ناخن های پا تنها بخش کوچکی از زندگی رجایی بعنوان با سابقه ترین زندانی سیاسی زمان خود است که ساواک به جهت افشای نام و محل همرزمانش بر او وارد می نمود و او هیچ وقت بر خلاف اکثر زندانیان سیاسی که به سرعت پس از دستگیری و همکاری آزاد می شدند آزاد نشد. در اثر این مقاومتها او را به زندان قصر و سپس به اوین فرستادند. در این دوران او از مجاهدین خلق فاصله گرفت و تبری جست. دوران زندان مجموعا چهار سال به درازا کشید و رجائى در سال 1357 با اوج گیرى انقلاب اسلامى همراه دیگر زندانیان سیاسى آزاد شد و بلافاصله وارد مبارزات سیاسى و فرهنگى گردید و به اتفاق عده اى از همکارانش براى بسیج و سازماندهى مبارزات مخفى معلمان مسلمان تلاش کرد و موفق به ایجاد انجمن اسلامى معلمان شد. او در راه پیماییهاى عظیم سال 1357 شرکت می کرد و نقش ‍ موثرى در فعالیتهاى تبلیغاتى آن روزها داشت.